Невидимые правители. Люди, которые превращают ложь в реальность - Renee DiResta

Украину, была фан-страница популярного американского музыканта Кида Рока на Truth Social, которой вдруг стало что сказать о войне. 118 Хотя у альт-платформ зачастую гораздо меньшая аудитория, фальшивый аккаунт Кида Рока , связанный с Россией, сумел добиться нескольких прорывных успехов, поскольку его контент репостился его аудиторией на другие, более мейнстримовые платформы социальных сетей. Например, Дональд Трамп-младший перепостил один из мемов фальшивого "Кид Рока" в Instagram. 119 Эти аккаунты могут не получить массового вовлечения или охвата, но они могут вести пропаганду среди нишевых аудиторий относительно беспрепятственно.

Telegram, не пользующийся широкой популярностью в Соединенных Штатах, но пользующийся огромной популярностью в других странах, уже давно дал понять, что не намерен расследовать, кто стоит даже за самыми, казалось бы, манипулятивными каналами. Он не предпринимает никаких усилий для модерации дезинформационных кампаний, хотя и отреагировал на санкции ЕС в отношении российских государственных СМИ и, в ограниченном смысле, на просьбы магазинов приложений Apple и Google ограничить доступ к каналам ХАМАС. 120 Учитывая политику "руки прочь", неудивительно, что многие манипуляционные кампании, связанные с вторжением России в Украину, появились и стали вирусными в Telegram. Одним из ярких примеров стало разрушительное утверждение о том, что жертвы военного преступления, в ходе которого Россия разбомбила роддом в Мариуполе, ранив или убив множество беременных женщин, на самом деле были "кризисными актрисами", нанятыми Украиной. 121 Эта пропаганда была быстро пресечена в Twitter и Facebook, которые удалили твиты государственных СМИ и официального посольства России, лгущие о женщинах, и как можно быстрее разместили ярлыки проверки фактов на соответствующих постах. 122 Тем не менее, эта ложь привлекла внимание в Telegram, распространилась в Интернете и даже смогла на время запутать поиск Google: в течение нескольких часов после того, как утверждение стало вирусным, поиск по имени одной из выживших молодых матерей выдавал ссылки на государственные СМИ, клеветавшие на нее.

Работает ли это? Имеет ли это значение?

Эти государственные операции влияния влияют на людей, чьи жизни они меняют, и на сообщества, которые они направляют и вводят в заблуждение. Независимо от того, на кого направлены эти операции - на своих граждан или на граждан соперничающей страны, - эти кампании манипулятивны и ошибочны.

Учитывая эти последствия, мы не должны полагаться только на технологические компании в расследовании происходящего; мы также не должны принимать их выводы без дополнительной проверки. После 2018 года ученые, СМИ, гражданское общество, и технологические платформы начали более активно сотрудничать в расследовании операций влияния, спонсируемых государством. 123

Однако те, кто находится за пределами платформ, могут увидеть лишь очень многое. Необычный контент, сходство в размещении сообщений, сгенерированные искусственным интеллектом фотографии профилей, связи с прошлыми сетями или доменами - это интересные сигналы, но их недостаточно, чтобы однозначно приписать кампанию государственному актору. Значимая атрибуция должна основываться не только на косвенных доказательствах. Именно поэтому академические исследователи часто обращаются к представителям социальных платформ после сбора первичной информации о кажущейся неаутентичной сети; технологические компании имеют доступ к гораздо большему количеству данных, включая данные об устройствах, используемых аккаунтами, или о том, откуда они могут входить в сеть. В течение нескольких лет после обнаружения попыток Агентства интернет-исследований манипулировать американским обществом технологические компании делились результатами с теми, кто предоставил первые сведения, а впоследствии выложили в открытый доступ наборы данных и отчет об уничтожении. Но по состоянию на 2023 год некоторые технологические компании начали отказываться от такого сотрудничества, поскольку общение между платформами и исследователями было переосмыслено недобросовестными субъектами как своего рода заговор с целью подавления определенных мнений или политических убеждений. 124

На самом деле такое сотрудничество позволяет всем лучше понять дезинформационные кампании и обеспечить контроль над государственной властью. Прозрачность - это ключ к тому, чтобы общественность понимала, как работают двуличные кампании.

Пропагандисты не просто прекращают операции влияния после того, как сеть обнаружена и атрибутирована; редко бывают серьезные последствия, когда их ловят. Государство может потерять большинство своих фальшивых аккаунтов, но они неизбежно в конечном итоге восстановятся. Пока целевые сообщества доступны, а выгоды от операции перевешивают затраты на ее проведение, эта игра в "вак-а-мол" будет продолжаться.

Не все государственные операции имеют ошеломительный успех. Многие терпят крах. Но если не нарушать работу сети - просто не навязывать манипуляторам никаких издержек, - это означает, что они будут продолжать развиваться.

Сегодня спонсируемые государством кампании по дезинформации и пропаганде не обязательно должны охватывать большую аудиторию или убеждать целые общества или даже большинство людей думать определенным образом. В мире расколотой общественности такие кампании могут быть направлены на конкретные группировки и активизировать их. Они могут использовать существующую мельницу слухов и реальные сетевые толпы, чтобы невольно распространять государственные послания 125 или даже нелепые теории заговора вроде "Пиццагейта". Иногда этого достаточно, чтобы кристаллизовать и усугубить существующее недоверие и еще больше укрепить людей в замкнутой реальности.

Действительно, внутренние СМИ, внутренние влиятельные лица и толпы реальных активистов остаются невидимыми правителями, управляющими шоу, поскольку государственные акторы используют существующую динамику. Когда летом 2020 года в Соединенных Штатах прошли протесты и расовые волнения, Россия, Китай и Иран были очень активно задействованы, чтобы использовать реальное недовольство: Российские пропагандистские агентства, некоторые из которых можно легко атрибутировать, а некоторые являются "серой" пропагандой, при любой возможности производили контент для усиления беспорядков. 126 Некоторые из этих агентств поддерживали левых протестующих, призывающих к прекращению полицейской деятельности; некоторые поддерживали правых, выступающих за полицейскую перспективу. Китай и Иран также часто высказывались, заявляя о провале демократии. 127 Но эти усилия, связанные с государством, обычно наиболее эффективны для усугубления того, что уже происходит: нагнетания слухов или отмывания нарративов через пропагандистские каналы. Они даже близко не могут сравниться с тем влиянием, которое могут оказать подлинные авторитеты внутри сообщества. И это, по сути, одна из причин, по которой государственные субъекты все чаще стали пытаться просто нанимать авторитетов 128 - часто тайно - для создания контента на самые разные темы: от обыденных культурных комментариев (Китай платит людям, чтобы они хорошо отзывались о зимних Олимпийских играх 2022 года) 129 до военной пропаганды (Россия платит создателям на TikTok за распространение кремлевских тезисов). 130

Мы должны уметь одновременно держать в голове две вещи. Во-первых, национальные государства с энтузиазмом приняли социальные сети в качестве еще одного канала в полномасштабной пропагандистской стратегии. Они адаптировали стратегии "агентов влияния" к виртуальному миру - вербуют невольных журналистов и влиятельных лиц и внедряются в сообщества. Это происходит во всем мире: невидимые правители по всему миру хотят иметь возможность формировать общественное мнение, чтобы свергать враждебные правительства или партии, разрушать общества и